随机偏微分方程(SPDES)是在随机性影响下模拟动态系统的选择的数学工具。通过将搜索SPDE的温和解决方案作为神经定点问题,我们介绍了神经SPDE模型,以便从部分观察到的数据中使用(可能随机)的PDE溶液运营商。我们的模型为两类物理启发神经架构提供了扩展。一方面,它延伸了神经CDES,SDES,RDE - RNN的连续时间类似物,因为即使当后者在无限尺寸状态空间中演变时,它也能够处理进入的顺序信息。另一方面,它扩展了神经运营商 - 神经网络的概括到函数空间之间的模型映射 - 因为它可以用于学习解决方案运算符$(U_0,\ xi)\ MapSto U $同时上的SPDES初始条件$ u_0 $和驾驶噪声$ \ xi $的实现。神经SPDE是不变的,它可以使用基于记忆有效的隐式分化的反向化的训练,并且一旦接受训练,其评估比传统求解器快3个数量级。在包括2D随机Navier-Stokes方程的各种半线性SPDES的实验证明了神经间隙如何能够以更好的准确性学习复杂的时空动态,并仅使用适度的培训数据与所有替代模型相比。
translated by 谷歌翻译
随机过程是随机变量,其中一些路径中的值。然而,将随机过程降低到路径值随机变量忽略其过滤,即通过时间通过该过程携带的信息流。通过调节其过滤过程,我们介绍了一系列高阶内核eMbeddings(KMES),概括了KME的概念,并捕获了与过滤有关的附加信息。我们导出了相关的高阶最大均衡(MMD)的经验估计器,并证明了一致性。然后,我们构建一个过滤敏感的内核两种样本测试,能够拾取标准MMD测试错过的信息。此外,利用我们的更高阶MMDS,我们在随机过程中构建了一个通用内核的家庭,允许通过经典内核的回归方法解决现实世界校准和最佳停止问题(例如美国选项的定价)。最后,调整对随机过程的情况的条件独立性的现有测试,我们设计了一种因果发现算法,以恢复与其多维轨迹的观察相互作用的结构依赖性的因果关系。
translated by 谷歌翻译
我们提出了一种多层变量自动编码器方法,我们称为HR-VQVAE,该方法学习数据的层次离散表示。通过利用新的目标函数,HR-VQVAE中的每个层都通过量化的编码来学习从以前的层中的残差表示离散表示。此外,每一层的表示形式在层次上链接到以前的图层。我们评估了图像重建和生成任务的方法。实验结果表明,HR-VQVAE学到的离散表示使解码器能够比基线方法(即VQVAE和VQVAE-2)重建具有较小的变形的高质量图像。 HR-VQVAE还可以产生优于最先进的生成模型的高质量和多样化的图像,从而进一步验证学习表现的效率。 HR-VQVAE的层次结构性质i)减少了解码时间,使该方法特别适合高负载任务,ii)允许增加代码簿的大小而不会引起代码书折叠问题。
translated by 谷歌翻译